我们知道，如果r（AB）=3，那么r（BA）不可能等于0-2.这是由行列式决定的。反之如果r（AB）是2，那么r（BA）也不可能是0或3。我们进一步思考AB和BA的关系。
\[ \text{r}(AB) \leq \min(\text{r}(A), \text{r}(B)) \]
这条规则可以从矩阵乘法的列向量解释中直观理解：矩阵 AB 的每一列都是矩阵 A 的列向量的线性组合。
因此 AB 的列空间必然包含于 A 的列空间之中，从而导致 \(\text{r}(AB) \leq \text{r}(A)\) [[19,20]]。同理，从行向量的角度看，AB 的每一行都是 B 的行向量的线性组合，因此 \(\text{r}(AB) \leq \text{r}(B)\) [[19,22]]。这两条结论合并便构成了上述不等式。对于用户关注的三阶方阵情况，这意味着 \(\text{r}(AB) \leq \min(\text{r}(A), \text{r}(B))\) 和 \(\text{r}(BA) \leq \min(\text{r}(A), \text{r}(B))\) 同时成立 [[9]]。
然而，仅凭上界不足以完全刻画秩的动态。为了获得更精细的约束，我们需要引入 Sylvester 秩不等式。该不等式为矩阵乘积的秩提供了一个下界，其表述如下：对于 m×n 矩阵 A 和 n×p 矩阵 B，有 $\( \text{r}(AB) \geq \text{r}(A) + \text{r}(B) - n \)\( 当 A 和 B 均为 3x3 方阵时， \)\text{r}(AB)\( 至少会达到 \)\text{r}(A) + \text{r}(B) - 3$。也就是说如果一个矩阵 A 是满秩的（即可逆），r(B)<=r(AB)<=r(B)。 这个不等式告诉我们只要两秩之和足够高，AB 的秩也会很高。反之，如果 A 或 B 的秩很低，那么 AB 的秩也必然会受到限制。不会出现RA=3 RB=2,RAB=1；也不会出现RAB=3。
可以用特征值来推导R(AB)和R(BA)之间的关系。🐙1000基础篇引入了一道题，对于任意 n×n 矩阵 A 和 B，它们的乘积 AB 和 BA 具有完全相同的非零特征值，包括代数重数。
由于矩阵的秩与其非零特征值的数量直接相关（在复数域上，秩等于非零特征值的个数，计重数），因此 AB 和 BA 的 秩必然相等 。这个结论甚至可以推广到 Jordan 标准形的层面：AB 和 BA 的 Jordan 结构除了对应于特征值 0 的部分外，其余部分是完全相同的 。 那么有朋友就要问了，25真题那个问题，秩就不相等。 举例 \(A = \begin{bmatrix} 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 0 \end{bmatrix}\) ， \(B = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \end{bmatrix}\) 于是 \(\text{r}(AB) =1 , \text{r}(BA) = 0\) 。也可以举一个\(\text{r}(AB) =2 , \text{r}(BA) = 1\) 的例子，但是其实吃力不讨好。
研究A和B的性态，我们发现： 在 ( r(AB) = r(BA) + 1 ) 且 ( A, B ) 为 ( 3 x 3 ) 方阵时：
| AB 的秩 (\(\text{r}(AB)\)) | BA 的秩 (\(\text{r}(BA)\)) | 可行性/限制条件 |
|---|---|---|
| 0 | 0 | AB=0 当且仅当 BA=0。例如 Im(B) ⊆ Ker(A)，且 A, B 非零。 |
| 0 | 1 | 特征值一样，但jordan块有差别。 |
| 1 | 1 | \(\text{r}(A) + \text{r}(B) \leq 4\)。 |
| 1 | 2 | 特征值一样，jordan块有区别。 |
| 2 | 2 | \(\text{r}(A) \geq 2\), \(\text{r}(B) \geq 2\)。例如，取 A 秩为 2，B 为可逆矩阵。 |
| 3 | 3 | A 和 B 均为可逆矩阵。 |
在明确了 AB 和 BA 的秩关系之后，我们转向用户提出的第二个核心问题：四个齐次线性方程组 Ax=0, Bx=0, ABx=0, BABx=0 的解集之间的关系。 解集，即矩阵的零空间（Null Space）或核空间（Kernel）。 它描述了所有被该矩阵线性变换映射到零向量的输入向量的集合。这个集合本身构成了一个向量空间，其维度被称为矩阵的零化度。
最基本的包含关系是，矩阵 B 的零空间是其与矩阵 A 的乘积 AB 的零空间的子集，即 \(\text{Null}(B) \subseteq \text{Null}(AB)\) 。这个结论的证明非常直接：假设向量 x 是 Bx=0 的一个解，那么 Bx = 0。将此等式两边同时左乘矩阵 A，我们得到 A(Bx) = (AB)x = A(0) = 0。这表明 x 也是 ABx=0 的一个解。因此，任何属于 B 的零空间的向量，必然也属于 AB 的零空间。这个关系在几何上也可以理解为：任何能被 B 直接“杀死”的向量，当然也能被更长的变换链 AB 杀死。
这个包含关系不仅存在于 \(\text{Null}(B)\) 和 \(\text{Null}(AB)\) 之间，也同样适用于 \(\text{Null}(B)\) 和 \(\text{Null}(BAB)\)。因为如果 Bx=0，那么 BABx = BA(Bx) = BA(0) = 0，所以 \(\text{Null}(B) \subseteq \text{Null}(BAB)\)。此外，我们还可以进一步推导出 \(\text{Null}(AB) \subseteq \text{Null}(BAB)\)。对于任意 x ∈ \(\text{Null}(AB)\)，有 ABx = 0。那么 BABx = B(ABx) = B(0) = 0，因此 x ∈ \(\text{Null}(BAB)\)。这表明，解集的范围随着变换链的延长而扩大。
基于以上分析，我们可以构建一个清晰的解空间层级结构： 1. \(\text{Null}(B)\)：这是最严格的解集，只包含那些能够被 B 单独“归零”的向量。 2. \(\text{Null}(AB)\)：这个解集包含了 \(\text{Null}(B)\)，并且还可能包含更多向量。这些额外的向量 x 满足 Bx ≠ 0，但 A(Bx) = 0。也就是说，Bx 落在了 A 的零空间中，但 x 本身并不在 B 的零空间里。 3. \(\text{Null}(BAB)\)：这是最大的解集，它包含了 \(\text{Null}(B)\) 和 \(\text{Null}(AB)\)。它包含了所有满足 BABx=0 的向量。 4. rank(B) ：这是最大的秩，代表 B 本身的列空间维度，包含了最丰富的“信息量”。 5. rank(AB) ：这个秩小于或等于 rank(B) 。当 A 在 B 的列空间上作用时没有“信息损失”（即 A 在 B 的列空间上是单射），等号成立；否则，秩会严格减小。 6. rank(BAB) ：这是最小的秩，它小于或等于 rank(AB) 。它代表经过 BAB 变换后的列空间维度，通常比 rank(AB) 更小，因为额外的 B 变换可能进一步压缩信息。
这个层级结构可以用包含关系图来表示： $\( \text{Null}(B) \subseteq \text{Null}(AB) \subseteq \text{Null}(BAB)，rank(B)≥rank(AB)≥rank(BAB) \)$
\(\text{Null}(B)\) 和 \(\text{Null}(AB)\) 可能具有相同的解集。而 \(\text{Null}(AB)\) 和 \(\text{Null}(BAB)\) 通常不会有完全相同的解集，因为后者是一个更大的空间。至于 Ax=0 和 ABx=0，它们的解集之间没有固定的包含关系，它们的解空间可能完全不同，也可能有交集。例如，如果 A 是零矩阵，那么 Ax=0 的解集是整个三维空间 R³，而 ABx=0 的解集则是 B 的零空间。因此，唯一具有明确“同解”可能性的一对是 Bx=0 和 ABx=0。
对于题目的D选项：
方程组 ABAx =0与方程组BABx = 0有公共非零解
我们可以直接利用AB的秩至多为1，来说明ABA和BAB秩都低于等于1.于是增广矩阵r为2.
大概先这样吧